라그랑주 승수법

라그랑주 승수법(Lagrange乘數法, 영어: Lagrange multiplier method)은 제약이 있는 최적화 문제를 푸는 방법이다. 최적화하려 하는 값에 형식적인 라그랑주 승수(Lagrange乘數, 영어: Lagrange multiplier) 항을 더하여, 제약된 문제를 제약이 없는 문제로 바꾼다. 조제프루이 라그랑주가 도입하였다. 수학, 라그랑주 역학, 경제학, 운용 과학 등에 쓰인다.

정의

연속미분가능함수 $f\colon \mathbb {R} ^{D}\to \mathbb {R}$ 와 $\mathbf {g} \colon \mathbb {R} ^{D}\to \mathbb {R} ^{C}$ 를 생각하자. $\mathbf {g} (\mathbf {x} )=0$ 인 제약 아래 $f(\mathbf {x} )$ 를 최적화하는 문제를 생각하자. 이 문제는 라그랑주 승수법을 써 다음과 같이 풀 수 있다. 다음과 같은 함수 $F\colon \mathbb {R} ^{D+C}\to \mathbb {R}$ 을 정의하자.

F(\mathbf {x} ,\mathbf {y} )=f(\mathbf {x} )+\mathbf {y} \cdot \mathbf {g} (\mathbf {x} )

$F$ 의 정류점(stationary point)은 오일러-라그랑주 방정식을 통하여 찾을 수 있다. 그렇다면, 다음을 보일 수 있다.

만약 $(\mathbf {x} ,\mathbf {y} )\in \mathbb {R} ^{D+C}$ 가 $F$ 의 정류점이라면, $\mathbf {x}$ 는 $\mathbf {g} =0$ 으로 제약한 $f$ 의 정류점이다.
만약 $\mathbf {x} \in \mathbb {R} ^{D}$ 가 $\mathbf {g} =0$ 으로 제약한 $f$ 의 정류점이라면, $(\mathbf {x} ,\mathbf {y} )$ 가 $F$ 의 정류점인 $\mathbf {y} \in \mathbb {R} ^{C}$ 가 존재한다..